เปรียบเทียบแนวทางการใช้ข้อมูล: สเปกตรัมการติดป้ายกำกับ
การนำไปใช้งานโมเดลการเรียนรู้ของเครื่องอย่างประสบความสำเร็จขึ้นอยู่กับความพร้อม คุณภาพ และต้นทุนของข้อมูลที่มีป้ายกำกับอย่างมาก ในการทำงานที่การติดป้ายโดยมนุษย์มีต้นทุนสูง ทำได้ยาก หรือต้องอาศัยความเชี่ยวชาญเฉพาะทาง แนวทางมาตรฐานจะกลายเป็นไม่เหมาะสมหรือล้มเหลวทันที เราเสนอแนวคิด 'สเปกตรัมการติดป้าย' เพื่อแยกแยะสามแนวทางหลักตามวิธีการใช้ข้อมูล:การเรียนรู้แบบมีผู้สอน (SL) , การเรียนรู้แบบไม่มีผู้สอน (UL) และ การเรียนรู้แบบกึ่งมีผู้สอน (SSL) .
1. การเรียนรู้แบบมีผู้สอน (SL): ความแม่นยำสูง แต่ต้นทุนสูง
SL ทำงานบนชุดข้อมูลที่แต่ละข้อมูลนำเข้า $X$ ถูกจับคู่อย่างชัดเจนกับป้ายกำกับจริง $Y$ อย่างไรก็ตาม แนวทางนี้มักให้ความแม่นยำสูงสุดในการทำนายงานจำแนกประเภทหรือการทำนายเชิงพยากรณ์ แต่การพึ่งพาการติดป้ายที่หนาแน่นและมีคุณภาพสูงกลับใช้ทรัพยากรมาก ประสิทธิภาพจะลดลงอย่างฉับพลันหากข้อมูลที่มีป้ายกำกับมีจำนวนน้อย ทำให้แนวทางนี้อ่อนไหวและมักไม่สามารถสนับสนุนทางเศรษฐกิจได้สำหรับชุดข้อมูลขนาดใหญ่ที่เปลี่ยนแปลงตลอดเวลา
2. การเรียนรู้แบบไม่มีผู้สอน (UL): การค้นพบโครงสร้างภายใน
UL ทำงานเฉพาะกับข้อมูลที่ไม่มีป้ายกำกับ $D = \{X_1, X_2, ..., X_n\}$ เป้าหมายคือการอนุมานโครงสร้างภายใน ความน่าจะเป็นพื้นฐาน ความหนาแน่น หรือการแทนที่ที่มีความหมายภายในพื้นผิวข้อมูล แอปพลิเคชันสำคัญได้แก่ การจัดกลุ่ม การเรียนรู้พื้นผิว และการเรียนรู้การแทนที่ โดยที่ UL มีประสิทธิภาพสูงในการประมวลผลเบื้องต้นและการสร้างฟีเจอร์ ให้ข้อมูลเชิงลึกที่มีค่าโดยไม่ต้องพึ่งพาข้อมูลจากมนุษย์ภายนอก
กำหนด: $D_L$: ข้อมูลที่มีป้ายกำกับ $D_U$: ข้อมูลที่ไม่มีป้ายกำกับ $\mathcal{L}_{SL}$: ฟังก์ชันความสูญเสียแบบมีผู้สอน $\mathcal{L}_{Consistency}$: ความสูญเสียที่บังคับความราบรื่นในการทำนายบน $D_U$
The conceptual form of the total SSL loss is a weighted sum of the two components: $\mathcal{L}_{SSL} = \mathcal{L}_{SL}(D_L) + \lambda \cdot \mathcal{L}_{Consistency}(D_U)$. The scalar $\lambda$ controls the trade-off between label fidelity and structure reliance.